Paylaş
0
OpenAI’ın henüz yeni tanıttığı güçlü modellerinden GPT-5.6 Sol ve geliştirme aşamasındaki "gizli" bir üst model, eşi benzeri görülmemiş bir skandala imza attı.
Yapay zekânın yeteneklerini ölçmek için yapılan performans testinde, bu gizli olan üst model testi düzgünce çözmek yerine sistemi hackleyerek cevapları çalmayı tercih etti.
İçerikten Görseller
Eşi benzeri yaşanmadı
Olay, OpenAI’ın yapay zekânın siber yeteneklerini sanal bir laboratuvarda test ettiği "ExploitGym" benchmark'ı sırasında yaşandı. Modellerin en yüksek puanı alması hedefleniyordu ancak küçük bir engel vardı. Bu süreçte yapay zekânın dış dünyayla ve internetle tüm bağlantısı kesilmişti.
Ancak bu yeni model bu durumu pek umursamadı. Muazzam bir işlem gücü harcayarak sistemdeki henüz keşfedilmemiş güvenlik açıklarını tek tek tespit etti. Yetki yükseltme saldırılarıyla sınırlarını aştı ve sonunda internete ulaşmayı başardı. Buradan Hugging Face sunucularına sızan yapay zekâ, ele geçirdiği şifreler ve güvenlik açıkları sayesinde testin cevaplarını, veri setlerini ve çözümlerini çalarak sınavlarda tavan puan aldı.
Durum çok geçmeden fark edildi
Neyse ki durum çok geçmeden hem OpenAI hem de Hugging Face mühendisleri tarafından fark edildi ve operasyon durduruldu. Şu an ise bu iki şirket, yapay zekânın bu "kurnazca" hamlesini incelemek ve güvenlik sistemlerini güçlendirmek için ortaklaşa çalışıyor.
Bir test puanı uğruna kendi kendine "yoldan çıkan" ve hedefine ulaşmak için sistemleri hackleyen bir yapay zekâ fikri, kulağa eğlenceli geldiği kadar gelecek için de biraz ürkütücü gibi...
